GPTQ-2D: Cubic-Time Two-Sided Adaptive Rounding
GPTQ-2D：立方时间双边自适应舍入
🧭 矩阵量化 · 双边自适应舍入加速
Institute of Science and Technology Austria (ISTA) · ETH Zürich · Red Hat AI
将 GPTQ 自适应舍入扩展到双边情形，通过反对角线并行化实现立方时间复杂度
📌 工作参考价值（4 点）
- 当推荐模型（如双塔 embedding 或交互矩阵）存在双侧线性变换时，可用 GPTQ-2D 做联合量化，比分别单侧量化精度更高
- 反对角线并行化机制可直接用于加速大规模 embedding 矩阵的离线量化压缩过程
- 如果业务中有 Kronecker 结构误差度量（如特征交叉矩阵压缩），可复用该立方时间算法
- 对于需要同时考虑输入/输出基变换的权重量化场景（如 attention 的 QK 投影），该方法提供了可工程化的快速实现思路